字节跳动"破坏者"实习生已被辞退 AI大模型安全值得关注

01

字节跳动回应实习生事件

近期，字节跳动就有关实习生干扰大模型训练的传闻作出了回应。

10月19日，该公司确认确实有实习生因严重违纪行为被辞退，但同时指出相关报道中存在夸大和不实之处。

02

事件经过

字节跳动表示，涉事实习生在商业化技术团队实习期间，恶意干扰了模型训练任务。

公司强调，这一行为并未对正式项目和线上业务造成影响，也不涉及字节跳动的其他业务。

关于“损失上千万美元”的说法被认为是严重夸大。

经过核实，该实习生并未在AI Lab工作，其社交媒体上的个人信息和部分媒体报道均存在错误。

此外，该实习生早在8月便已被辞退，字节跳动也将此事通报给了行业联盟和所在学校。

03

传闻背景

此前，有消息称字节跳动的大模型训练遭到实习生入侵，注入了破坏性代码，导致训练成果不可靠，可能需要重新训练。

传言称，入侵涉及8000多张卡，损失可能超过千万美元。

该实习生在某微信群中辟谣，声称自己在发完论文后便离职，另有他人利用漏洞改动了模型代码，并将责任推给了他。

04

大模型安全问题的关注

大模型的安全性问题引起了业内的广泛关注。

2023年底，《自然》杂志预测了2024年的重大科学事件，其中包括GPT5的发布和联合国人工智能高级别咨询机构将发布的AI监管报告，显示出全球对人工智能发展与安全的重视。

业内人士认为，确保大模型遵循人类价值观、规避风险并保障应用安全，已成为亟待解决的全球性难题。

最近，阿里云与中国信息通信研究院等30余家单位联合发布了《大模型安全研究报告（2024年）》。

报告指出，大模型在训练数据、算法模型、系统平台和业务应用等方面面临多重安全挑战，包括数据违规获取、算法鲁棒性不足等问题。

中国信通院发布的测试结果显示，开源大模型在恶意诱导下的攻击成功率显著提高，因此加强大模型的安全防护显得尤为重要。

- END -

推荐阅读

💡添加关注，获取更多AI热点资讯～💡

感谢您的阅读，辛苦您 点赞、在看、分享！